Verifiable Rewards Beyond Math and Code: Lightweight Corpus-Grounded Process Supervision for Factual Question Answering
轻量级语料库引导的过程监督:超越数学与代码的事实问答可验证奖励
🧭 RL 过程奖励 · 事实性增强
University of Illinois Chicago
基于维基百科共现统计的轻量过程奖励,替代昂贵神经验证器,高效提升事实问答 RL 训练。
📌 工作参考价值(4 点)
- 对电商知识问答、商品属性确认等事实敏感场景,可借鉴 Wikipedia 共现思路,用领域知识图谱或商品共现统计构建轻量过程奖励,低成本过滤幻觉。
- 在推荐解释生成或 Agent 多步推理中,将最终奖励细化为句子/步骤级信用分配,结合简单对齐映射到 token 级优势,提升 RL 训练信号密度。
- 当业务涉及长尾实体(冷门商品、小众品牌)时,统计共现信号比神经验证器更稳定可靠,可作为冷启动奖励的备选方案。
- 奖励计算只需单次语料查找 + 0.5B 小模型抽取,比 LLM-as-a-judge 快 5 倍以上,适合在线 RL 或高频迭代场景。